連邦取引委員会(FTC)は木曜日に、人気のあるChatGPT人工知能(AI)プラットフォームの開発者であるOpenAIの調査を開始し、プライバシー侵害、データ収集慣行、個人に関する虚偽の情報の公開に関する懸念を理由にしました。

FTCの調査は、OpenAIが消費者保護法に違反したかどうかを判断しようとしています。

FTCは、今週初めに同社に宛てた20ページの書簡で、ニューヨークタイムズ紙が「米国でのOpenAIのビジネスに対するこれまでで最も強力な規制上の脅威」と表現した、差し迫った調査についてOpenAIに通知しました。

この手紙は、OpenAIに、ビジネスとセキュリティの慣行に関する一連の質問に答え、多数のドキュメントやその他の社内の詳細を提供するように求めています。同社は回答するために14日間の猶予を与えられました。

OpenAIのCEOであるSam Altmanは、このニュースに失望したとツイートしたが、彼の会社は当局と協力すると述べた。

ワシントンポスト紙によると、「FTCは、企業が消費者保護法に違反していると判断した場合、罰金を科すか、企業にデータの取り扱い方法を明示する同意協定を結んだりすることができる。」

ニューヨーク大学の名誉教授で反トラスト法の専門家であるエレノア・フォックスLL.B.は、FTCの行動は前向きな一歩であるとディフェンダーに語った。

「FTCがOpenAIの調査を開始することは重要な動きであり、FTCがすべきことです。OpenAI自体を含め、ほとんどの人が規制されるべきであることに同意しています。

「消費者と競争の側面は非常に関連しています。ここでの最初の切り込みは、論理的に消費者保護です。」

しかし、他の一部の法的オブザーバーやビッグテックアナリストは、調査には何ヶ月もかかる可能性があり、OpenAIが最終的に制裁に直面することになるかは確実ではないと述べています。

オースティンを拠点とするインターネットおよび電気通信の弁護士であるW.スコットマッコロは、ディフェンダーに次のように語った。

「私はFTCが多くの良いことをしているとは思っていません。彼らは通常、企業全体を排除する必要があるときに、周辺に手を加えたり、有害な慣行の開示を要求するだけで、侵入的または有害なビジネスモデルを祝福することになります。」

「こういった監視資本主義全体が始まったのは少し前のことだ。そして今となっては遅すぎる。」

「Google Archipelago: The Digital Gulag and the Simulation of Freedom」の著者であるテクノロジー専門家のMichael Rectenwald博士は、テクノロジー業界の規制案における政治的およびイデオロギー的偏見について懸念を表明した。

「AIは、主に独占またはほぼ独占によって作成されているため、一般の人々に危険をもたらします。しかし、政府の規制は答えではありません。左派の規制当局や立法者の思い通りになれば、AIは「目覚めた」基準を使用して現実をキュレートし、そうでなければ現実を消滅させるでしょう。

「答えは競争の激化です。競争は、AIプロデューサーにプライバシーを保護し、自動化された名誉毀損から個人を保護し、左翼のファンタジーフィクションではなく現実を代表することを強いるでしょう。」

FTCの書簡は、同機関の議長であるリナ・カーンが、リナ・カーン委員長が共和党主導の下院司法委員会から、大手テック企業に対する反トラスト法および規制措置の失敗について質問を受けたのと同じ週に出された。

「欺瞞行為」、個人に対する「風評被害」の申し立て

FTCの調査は、非営利の擁護団体であるAIおよびデジタルポリシーセンター(CAIDP)がOpenAIの調査を促す苦情をFTCに提出してから4か月も経たずにに行われます。

CAIDPの訴状は、OpenAIは、AIが「説明責任を促進しながら、透明で、説明可能で、公正で、経験的に健全である」べきであるというFTCガイドラインを満たしていないと述べ、OpenAI自体が「偽情報と影響力作戦」や「通常兵器および非通常兵器の拡散」を含む多くの潜在的な危険性を認めていると述べた。

CAIDPはFTCに対し、バイアス、偽情報、セキュリティに関する問題に対処するために、OpenAIがChatGPTプラットフォームの新しい商用版を「ガードレールが確立されるまで」リリースするのをブロックするよう要請した。この書簡は、AIで使用される「大規模な言語モデルの一時停止」を求めた「AI専門家」の声明を引用している。

CAIDPは7月７日に苦情をエスカレートさせ、OpenAIをChatGPTなどのAI製品の「不公正で欺瞞的な慣行」と「倫理的影響と規制上のニーズに対する懸念の高まり」で非難した。

ポスト紙によると、CAIDPの苦情に加えて、OpenAIとChatGPTに対する危害の申し立てが他にもあった。

ポスト紙は、ジョージア州のラジオトークショーのホストであるマークウォルターズがチャットボットが同氏がセカンド・アメンドメント財団から資金を詐取し横領したと虚偽の主張をしたとして、OpenAIを名誉毀損で訴えたとThe Postが報じた。ウォルターズ氏はOpenAIに対して訴訟を起こしました。

別の例では、ChatGPTは、弁護士が「ワシントンポストに掲載されたという記事を引用して、アラスカへのクラス旅行で性的なものを暗示するコメントをし、学生に触れようとした」と述べた。

しかし、ポスト紙によると、「そのような記事は存在せず、クラス旅行は決して起こらず、弁護士は学生に嫌がらせをしたとして非難されたことはないと述べた」。

したがって、FTCはOpenAIに、「評判の低下」をもたらした可能性のある人々について「虚偽、誤解を招く、軽蔑的、または有害な」発言をしている同社の製品について受け取ったすべての苦情の詳細を提供するよう求めました。

調査されたセキュリティ問題

FTCはまた、OpenAIが「不公正または欺瞞的なプライバシーまたはデータセキュリティ慣行に従事したか、消費者への危害のリスクに関連する不公正または欺瞞的な慣行に従事したか」を調査します。

FTCは、ChatGPTシステムのバグにより、特定のユーザーのチャット履歴、個人を特定できるデータ、および財務情報が明らかになった3月のデータ侵害に関連する記録を求めています。

当時、OpenAIは「非常に少数の」ユーザーしか影響を受けていないと主張していました。

ChatGPTユーザーはAIテクノロジーの限界を理解していますか?

FTCは、消費者がAIツールによって生成された「出力の精度または信頼性」をどの程度理解しているか、調査、研究、テスト結果、およびOpenAIが製品のトレーニングに使用しているデータの提出を求めている。

The Postは、ChatGPTのような製品は「ウィキペディア、Scribd、およびオープンウェブ上の他のサイトから主にスクレイピングされたテキストを取り込むことで、人間のようなスピーチを模倣する」が、これらのモデルには「モデルが質問に対する答えを知らないときに答えを作る」ことによって「幻覚」する傾向がある」と指摘している。

マッコローは、ディフェンダーに「幻覚」などの慣行は、すべてのオンラインユーザーのプライバシーを脅かすと語った。

「テクノロジー企業は、個人的または著作権で保護された資料であっても、インターネット上のすべてをスクレイピングする権利を主張することがよくあります。したがって、プライベートなものを投稿した、または一般的に公開されていないと思っていても、それを流用する可能性があります。」

最後に、FTCは、OpenAIが自社製品を宣伝する方法、新製品の安全性と信頼性を評価する方法、およびOpenAIが安全上の懸念から新製品を遅らせる割合に関する詳細を求めています。

タイムズ紙によると、「この調査により、OpenAIはChatGPTの構築方法とAIシステムの構築に使用するデータソースを明らかにすることを余儀なくされる可能性があります」と付け加え、「OpenAIは長い間そのような情報についてかなりオープンでしたが、最近ではAIシステムのデータがどこから来ているのかについてはほとんど言及していません」と付け加えました。

OpenAIに対する制裁が続くかどうかは不明

OpenAIに対する多数の申し立てにもかかわらず、この調査の結果は確実ではありません。タイムズ紙によると、「FTCのOpenAIの調査には数か月かかる可能性があり、それが当局からの何らかの行動につながるかどうかは不明です。このような調査は非公開であり、多くの場合、企業幹部の証言録取が含まれます。」

FTCの消費者保護局の元スタッフであるミーガン・グレイ氏は、タイムズ紙に「FTCには、得られる回答を評価し、OpenAIがどのように真実を隠そうとするかを確認するための技術的専門知識を持つスタッフがいない」と語った。

業界アナリストは、OpenAIに対する措置を執行するFTCの権限に疑問を呈した。テクノロジー業界の商工会議所の創設者兼CEOであるアダム・コワセビッチ氏は、ポスト紙に、当局は「名誉毀損やChatGPTの結果の内容を取り締まる」権限を欠いている可能性があると語った。

とはいえ、「FTCの調査は、最も知名度の高いAI企業の1つであるOpenAIに最初の主要な米国の規制上の脅威となり、人々、企業、政府がより多くのAI搭載製品を使用するにつれて、テクノロジーがますます精査される可能性があることを示しています」とタイムズは述べています。

AI技術に対する最近の懸念

6月、チャック・シューマー上院議員(民主党、ニューヨーク州)は、「AI政策の新しい基盤」を構築するための「包括的な法律」を求め、次のように述べています。

「スキルの低いタスクは、ますます速い速度で自動化の犠牲になり続け、何百万人もの低所得労働者を追い出し、その多くは有色人種のコミュニティから追放されます。トラック輸送、製造、エネルギー生産が次になる可能性があります。そして、残りの安全層、大学教育と高度な学位を持っている人も安全ではありません。」

アルトマン自身は、AI業界を規制する必要があると述べた。5月の議会での証言で、彼は「この技術がうまくいかないか、それはかなりまずい可能性があると思います。私たちは政府と協力して、それが起こらないようにしたいと思います。」

同じ公聴会で、アルトマン氏は、AIテクノロジーの広範な展開に起因する可能性のある潜在的な失業を「政府がどのように軽減したいかを理解する」ことが重要であると述べた。

他の国の規制当局はすでにAI企業に対して行動を起こしています

一部の国はすでにAIを規制するための措置を講じています。

3月、イタリアはデータプライバシーの懸念からChatGPTの運用を一時的に停止しました。

6月、Googleは同様の懸念から、アイルランドでのAIツールBardの発売を延期することを余儀なくされました。

法律事務所TaylorWessingによると、EU、ブラジル、中国、日本、カナダ、インド、スイスもAI業界の規制の策定に取り組んでいます。

他国の規制当局によるこのような措置は、FTCに行動を起こすよう促した可能性があります。タイムズ紙によると、「FTCは驚くべきスピードでAIに行動しており、OpenAIがChatGPTを導入してから1年も経たずに調査を開始しています。」

4月、FTCの消費者保護局の局長であるサミュエル・レヴィン氏は、FTCはAIによってもたらされる新たな脅威に対応する際に「機敏」に対応する準備ができていると述べ、FTCは「イノベーションは歓迎する…しかし革新的であることは無謀であることへのライセンスではありません。」

「私たちは、この分野での有害な慣行に異議を唱えるために、執行を含むすべてのツールを使用する準備ができています」とLevine氏は述べています。

以前、FTCは2月のブログ投稿で、AI企業に「「マーケティング担当者は、FTCの取締りの目的上、製品の効能に関する虚偽または根拠のない主張は、我々の糧となるものであることを知るべきである」と警告しました。

ポスト紙によると、ビッグテック懐疑論者としての評判を得ているFTCのカーン議長は、4月のバイデン政権の記者会見でAIに言及し、その間に「記載された法律に対するAIの免除はない」と彼女は述べたという。

2017年、カーンはイェールロージャーナルに法的論文を発表し、アマゾンを市場支配力が「対処」を必要とする現代の独占者と特徴付けました。同じ論文で、彼女はビッグテックに「伝統的な独占禁止法と競争政策」を復活させることに賛成すると主張した。

タイムズに掲載された3月3日のゲストエッセイで、カーンはAIツールは「斬新であるが、既存の規則から免除されるものではなく、FTCはこの新しい市場でも、私たちが管理する責任のある法律を強力に施行する」と述べ、「テクノロジーは急速に動いているが、すでにいくつかのリスクが見られる」と付け加えた。

カーンはFTCの失敗例について質問した

木曜日の下院司法委員会の公聴会で、カーンはAI業界の監視を強化するよう繰り返し求めた。

「ChatGPTやその他のサービスの一部には、膨大な量のデータが供給されています。これらの企業にどのような種類のデータが挿入されているかについてのチェックはありません」と彼女は公聴会で述べ、AIツールによって配信された結果に人々の「機密情報」が現れたという報告があったと付け加えました。

ここ数ヶ月、FTCは、欺瞞的な消費者慣行のためにビッグテック企業に対していくつかの措置を強制しました。

2019年、FTCはプライバシー調査においてFacebookとの50億ドルの罰金和解を承認し、2022年には欺瞞的なデータ収集慣行に対してFTCからTwitterに対して1億5000万ドルの罰金が科され、5月にはFTCは子供のプライバシーの懸念からAmazonに2500万ドルの罰金を科しました。

1月、カリフォルニア州に本拠を置くオンライン薬局GoodRxは、FTCの調査により、同社のユーザーの健康データをFacebookやGoogleなどの企業と共有していることが判明した後、150万ドルの民事罰を支払うことに同意しました。

しかし、木曜日の公聴会で、カーンは、連邦裁判官がマイクロソフトによるアクティビジョンの700億ドルの買収を阻止しようとするFTCの試みを阻止するなど、彼女の当局としての失敗について尋問を受けた。前月、FTCは、Metaによるバーチャルリアリティアプリ会社Withinの買収を阻止するためのFTCの取り組みを裁判官が阻止ことで、法廷での敗北に直面していた。

下院司法委員会の委員長であるジム・ジョーダン議員(共和党、オハイオ州)は、「FTCはこの委員会からの文書の要求に完全には応じておらず、彼女の管理ミスのために、彼女自身のスタッフでさえカーン委員長のリーダーシップに感銘を受けていない」と述べた。

そして、ケビン・カイリー議員(共和党、カリフォルニア州)は木曜日の公聴会でカーンに「あなたは今、合併裁判で0対4です。なぜそんなに蒔けているのですか?」

AIが社会構造にもたらすリスクに関する未解決の疑問

しかし、FTCのレトリックと公聴会でカーンが受けた質問の両方から欠けているように見えたのは、AIが社会構造にもたらす可能性のあるより広範なリスクでした。

アナリストで活動家のチャールズ・ヒュー・スミス氏によると、「AIは、技術的な仕事の置き換えとして知られる、大規模な新規雇用の波に取って代わられない仕事を排除する」。

スミス氏は、「LLM(大規模言語モデル)や機械学習AIによって数千万の雇用が失われるという主張には懐疑的」であり、そのようなAIツールは「熟練労働者を完全に置き換えるのではなく、生産性を高める」可能性があると書いています。

しかし、新しいテクノロジーが排除するよりもはるかに多くの雇用を創出する可能性があるという主張に応えて、スミスは「この新しい雇用創出が予測可能であるという証拠は実際にはそれほど明確ではありません」と書いています。

その結果、「AIは、誰もがAIのより高いコストに負荷をかけるにつれて利益を削減しますが、より高い価格と利益をサポートする永続的な競争上の優位性がなく、数千万人の新しい雇用を生み出す新しいセクターに置き換えられない幅広い人的労働に取って代わられる可能性があります。」

「置き換えられない失業へのフィードバックループがあります」とスミスは、エコノミストのジョン・メイナード・ケインズを引用して付け加えました。

「人々が稼いだ収入を失い、失業またはおそらくユニバーサルベーシックインカム(UBI)に依存する場合、彼らの収入は通常低く、彼らはもはや彼らが仕事をしていたときほど多くを費やして消費することができなくなります。経済全体が縮小する」